ในโลกของปัญญาประดิษฐ์ การจำลองลำดับเปลี่ยนโฟกัสจากภาพถ่ายที่ไม่เปลี่ยนแปลงไปยัง ลำดับตามเวลา. งานเรียนรู้ของเครื่องมาตรฐานมักจะสมมุติว่าจุดข้อมูลเป็น อิสระและเหมือนกันโดยสมบูรณ์ (IID), หมายความว่าลำดับของตัวอย่างไม่ส่งผลต่อผลลัพธ์

การจำลองลำดับปฏิเสธสิ่งนี้อย่างชัดเจน โดยเน้นสามเสาหลักหลัก:

• การละเมิด ความสมมาตรต่อการสลับตำแหน่ง: ในข้อมูลแบบตาราง ลำดับคอลัมน์เป็นเรื่องที่สุ่มได้ แต่ในลำดับ ลำดับคือคุณสมบัติหลัก ถ้าสลับประโยค "แมวเลื้อยกินหนู" เป็น "หนูเลื้อยกินแมว" จะเปลี่ยนแปลงอย่างสิ้นเชิง ความจริงทางความหมาย แม้ว่าคำต่างๆ จะเหมือนกัน
• แบบอัตโนมัติ คุณสมบัติ: เราสมมุติว่าการสังเกตที่เวลา $t$ ถูกกำหนดทางคณิตศาสตร์โดยประวัติของมัน ($t-1, t-2, \dots, 1$) สิ่งนี้จำเป็นต้องใช้ความน่าจะเป็นในการเปลี่ยนสถานะเพื่อสะท้อนว่าข้อมูลพัฒนาไปอย่างไร
• การแปลงความยาวแปรผัน: แตกต่างจากกริดพิกเซลคงที่ขนาด 28×28 ลำดับ เช่น ประโยคหรือคลื่นไหวสะเทือนเป็น ยืดหยุ่น. โมเดลต้องประมวลผลข้อมูลเข้าที่ความยาว $N$ และสร้างข้อมูลออกที่ความยาว $M$ โดยใช้พารามิเตอร์ที่คงที่